Мета за идентифициране на повече изображения, генерирани от AI, докато глобалната изборна треска се разгаря

Meta става все по-строга във връзка с дезинформацията, защото страните по света организират избори тази година.

Meta ще стартира да отбелязва фотоси, генерирани от изкуствен интелект (AI), качени в нейните платформи Instagram, Фейсбук и Threads през идващите месеци, когато стартира сезонът на изборите по света, заяви компанията във вторник.

Компанията на Марк Зукърбърг построява принадлежности за идентифициране на AI наличие в мащаб, с цел да сортира дезинформация и deepfakes.

Meta споделя, че в този момент ще се стреми да етикетира генерирано от AI наличие, което идва от Гугъл, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock. Освен това ще накаже потребителите, които не разкрият дали реалистично видео или аудио парче е направено с AI.

Досега Meta маркираше единствено изображения, генерирани от AI, които използваха свои лични принадлежности за AI.

Президентът по световните въпроси на Meta Ник Клег написа в обява в блог във вторник, че компанията ще стартира генерираното от AI етикетиране от външни компании „ през идващите месеци “ и ще продължи да работи по казуса „ през идната година “.

Освен това той сподели, че Meta „ работи интензивно за създаването на класификатори, които могат да ни оказват помощ да откриваме автоматизирано генерирано от AI наличие, даже в случай че наличието няма невидими маркери “.

Защо в този момент?

По време на президентските избори в Съединени американски щати през 2016 година и 2020 година Meta, тогава известна като Фейсбук, беше подложена на критика за обвързвана с изборите дезинформация от задгранични участници, най-вече Русия, разпространяваща се в нейния уебсайт. Компанията също беше подложена на рецензии по време на пандемията от COVID-19 през 2019 година, когато здравната дезинформация също се популяризира в платформата.

Новата политика на Meta за изкуствен интелект също е евентуално да потуши самостоятелния контролен съвет на компанията, който в понеделник разкритикува своята медийна политика като „ непоследователна “ и „ изчезнала безапелационна аргументация “.

Следва решение, доказано от Meta, че манипулиран видеоклип на Джо Байдън, който в началото демонстрира президента на Съединени американски щати да разменя стикери „ Аз гласувах “ с неговата стара внучка през 2022 година, по-късно беше манипулиран да наподобява по този начин, като че ли е докоснал гърдите й несвоевременно.

Мета сподели, че видеото не нарушава актуалните й политики, защото видеото не е манипулирано с AI.

Клег сподели, че промишлеността на обществените медии изостава в построяването на стандарти за идентифициране на видео и аудио, генерирани от AI, само че призна, че компанията не може сама да улови всяка подправена медия.

„ Тази работа е изключително значима, защото има възможност това да се трансформира във все по-противническо пространство през идващите години “, сподели Клег.

„ Хора и организации, които интензивно желаят да излъгват хората с AI -генерираното наличие ще търси способи да заобиколи защитните ограничения, които са въведени за откриването му. В нашата промишленост и общество като цяло ще би трябвало да продължим да търсим способи да сме една крачка напред. “